Ông sinh ngày 13 tháng 3 năm 1912 trong một gia đình tiểu thương ở Hà Nội, nguyên quán tại làng Cự Đà, huyện Thanh Oai, tỉnh Hà Đông (nay thuộc Hà Nội). Nhiều giấy tờ ghi ông sinh năm 1913, nhưng theo tờ Công an nhân dân ngày 17/10/2010 thì ông sinh năm Nhâm Tý (1912). Em trai ông là Vũ Trọng Tống, sau là Đại tá Quân đội nhân dân Việt Nam.

Từ 11 tuổi đến 21 tuổi ông theo học Tây học ở trường Lyceé Alber Sarraut Hà Nội. Từ năm 1933, ông theo học trường Cao đẳng Luật tại Hà Nội. Tại đây, ông quen biết với Nguyễn Thế Rục và được ông này giới thiệu tham gia hoạt động tại Tổng hội Sinh viên Đông Dương.

Năm 1936, ông tốt nghiệp cử nhân Luật nhưng chưa được phép hành nghề luật sư. Vì vậy, ông nhận làm thư ký cho một luật sư người Pháp tại Hải Phòng tên là Laubies. Trong thời kỳ Mặt trận Bình dân lên nắm quyền ở Pháp, ông tham gia nhóm làm báo Le Travail (Báo Lao động) đón Godard ở Hà Nội, tham gia vào các tổ nghiên cứu Mác-xít và tổ Thanh niên Dân chủ. Trong tổ có Đào Duy Kỳ, Vũ Đình Huỳnh, Phan Tử Nghĩa, Huỳnh Văn Phương.

Năm 1938, Mặt trận Bình dân đổ, chính phủ của Thủ tướng Édouard Daladier lên cầm quyền tại Pháp. Các nhóm dân chủ tại Đông Dương đều bị giải tán và phải rút vào hoạt động bí mật. Năm 1939, ông được công nhận là Luật sư tập sự, được phân công nhận bào chữa cho nhiều chiến sĩ cách mạng tại tòa án của chính quyền thực dân Pháp. Một thời gian sau, ông được công nhận Luật sư chính thức.